Tính Toàn diện của Tính Chất Tuyến Tính có lẽ là phương pháp nhanh nhất trong lý thuyết xác suất. Nó cho phép chúng ta tính kỳ vọng của tổng các biến ngẫu nhiên bằng cách chỉ cần cộng các kỳ vọng riêng lẻ của từng biến — bất kể các biến này có độc lập, tương quan hay loại trừ lẫn nhau hay không.
1. Cơ sở và Định lý 2.1
Để hiểu tại sao kỳ vọng lại hành xử một cách tuyến tính như vậy, chúng ta xem xét Luật của Nhà Thống Kê Vô Ý (LOTUS) cho các hệ thống đa chiều. Định lý 2.1 nêu rằng nếu $X$ và $Y$ có hàm khối xác suất chung $p(x, y)$, thì kỳ vọng của bất kỳ hàm nào $g(X, Y)$ là:
$$E[g(X, Y)] = \sum_{y} \sum_{x} g(x, y) p(x, y)$$
Đối với các biến liên tục có hàm mật độ xác suất chung $f(x, y)$, dạng tích phân tương đương là:
$$E[g(X, Y)] = \int_{-∞}^{∞} \int_{-∞}^{∞} g(x, y) f(x, y) dx dy$$
2. Nguyên lý Tuyến Tính
Bằng cách áp dụng LOTUS cho hàm $g(X, Y) = X + Y$, ta suy ra định lý trung tâm của bài học này: $E[X + Y] = E[X] + E[Y]$. Điều này mở rộng một cách tự nhiên đến bất kỳ tập hợp hữu hạn nào:
$E\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n E[X_i]$
Đây là 'toàn diện' vì nó không yêu cầu bất kỳ giả định nào về phân bố chung. Dù các biến có độc lập hay phụ thuộc mạnh mẽ đến đâu, trung bình của tổng luôn bằng tổng các trung bình.
Ví dụ 2a: Bài toán Cứu Hộ
Xét một vụ tai nạn xảy ra tại vị trí $X$ trên một đoạn đường dài $L$ và xe cứu thương ở vị trí $Y$, với $X, Y \sim U(0, L)$ và độc lập. Sử dụng LOTUS đa chiều để tìm $E[|X-Y|]$:
Hàm mật độ xác suất chung là $f(x, y) = 1/L^2$ với $0 \le x, y \le L$.
$$E[|X-Y|] = \int_0^L \int_0^L |x-y| \frac{1}{L^2} dx dy = \frac{L}{3}$$
3. Tính Đơn Điệu và Giới Hạn
Kỳ vọng bảo toàn thứ tự của các biến ngẫu nhiên. Nếu $X \ge Y$ với mọi kết quả, thì $E[X] \ge E[Y]$. Điều này suy ra từ Ví dụ 2b: nếu $X - Y \ge 0$, thì $E[X - Y] \ge 0$. Hơn nữa, nếu một biến bị giới hạn sao cho $P\{a \le X \le b\} = 1$, thì suy ra rằng $a \le E[X] \le b$.
4. Trung bình Mẫu (Ví dụ 2c)
Cho $X_1, \dots, X_n$ là một mẫu từ một phân bố có trung bình $\mu$. Phép trung bình mẫu được định nghĩa là:
$$\bar{X} = \sum_{i=1}^{n} \frac{X_i}{n}$$
Do tính tuyến tính, $E[\bar{X}] = \frac{1}{n} \sum E[X_i] = \frac{n\mu}{n} = \mu$. Giá trị kỳ vọng của trung bình mẫu là $\mu$, chứng tỏ nó là một ước lượng không thiên lệch.
- Các $X_i$ đều là các biến ngẫu nhiên không âm.
- Dãy hội tụ tuyệt đối: $\sum_{i=1}^\infty E[|X_i|] < \infty$.